Yahagi là chiếc thứ ba trong lớp tàu tuần dương hạng nhẹ Agano. Lớp tàu này được thiết kế như những con tàu nhanh nhẹn với vỏ giáp mỏng để chỉ huy hải đội tàu khu trục hay tàu ngầm, và được dự định để thay thế cho các lớp tàu tuần dương hạng nhẹ cũ được chế tạo sau khi Chiến tranh Thế giới thứ nhất kết thúc.

Yahagi được đặt lườn vào ngày 11 tháng 11 năm 1941, được hạ thủy vào ngày 25 tháng 10 năm 1942 và được đưa ra hoạt động vào ngày 29 tháng 12 năm 1943 tại xưởng hải quân Sasebo.